DIGITALE SOUVERÄNITÄT Bürger | Unternehmen | Staat iit-Themenband Volker Wittpahl (Herausgeber) Unternehmen | SOUVERÄNITÄT Unternehmen SOUVERÄNITÄT Unternehmen DIGITALE SOUVERÄNITÄT iit-Themenband SOUVERÄNITÄT Bürger Bürger Bürger iit-Themenband Digitale Souveränität Volker Wittpahl • Herausgeber iit-Themenband Digitale Souveränität Bürger | Unternehmen | Staat Herausgeber Volker Wittpahl Institut für Innovation und Technik (iit) in der VDI/VDE Innovation + Technik GmbH Berlin, Deutschland ISBN 978-3-662-55788-4 ISBN 978-3-662-55796-9 (eBook) DOI 10.1007/978-3-662-55796-9 Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar. Springer © Der/die Herausgeber bzw. der/die Autor(en) 2017. Dieses Buch ist eine Open-Access-Publikation Open Access. Dieses Buch wird unter der Creative Commons Namensnennung 4.0 International Lizenz (http://creativecommons.org/licenses/by/4.0/deed.de) veröffentlicht, welche die Nutzung, Vervielfältigung, Bearbeitung, Verbreitung und Wiedergabe in jeglichem Medium und Format erlaubt, sofern Sie den/die ursprünglichen Autor(en) und die Quelle ordnungsgemäß nennen, einen Link zur Creative Commons Lizenz beifügen und angeben, ob Änderungen vorgenommen wurden. Etwaige Abbildungen oder sonstiges Drittmaterial unterliegen ebenfalls der genannten Creative Com- mons Lizenz, sofern sich aus der Abbildungslegende oder der Quellreferenz nichts anderes ergibt. Sofern solches Drittmaterial nicht unter der genannten Creative Commons Lizenz steht, ist eine Vervielfältigung, Bearbeitung oder öffentliche Wiedergabe nur mit vorheriger Zustimmung des betreffenden Rechteinha- bers oder auf der Grundlage einschlägiger gesetzlicher Erlaubnisvorschriften zulässig. Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dass solche Namen im Sinne der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachten wären und daher von jedermann benutzt werden dürften. Aus Gründen der besseren Lesbarkeit wird auf die gleichzeitige Verwendung männlicher und weiblicher Sprachformen verzichtet. Ferner wird auf die Verwendung des geschlechterneutralen Gender-Sterns ver- zichtet. Sämtliche Personenbezeichnungen in diesem Band gelten gleichwohl für jedes Geschlecht. Der Verlag, die Autoren und die Herausgeber gehen davon aus, dass die Angaben und Informationen in diesem Werk zum Zeitpunkt der Veröffentlichung vollständig und korrekt sind. Weder der Verlag, noch die Autoren oder die Herausgeber übernehmen, ausdrücklich oder implizit, Gewähr für den Inhalt des Wer- kes, etwaige Fehler oder Äußerungen. Gedruckt auf säurefreiem und chlorfrei gebleichtem Papier Springer ist Teil von Springer Nature Die eingetragene Gesellschaft ist „Springer-Verlag GmbH Berlin Heidelberg“ iit-Themenband – Digitale Souveränität 5 Vorwort Die sich beschleunigende Digitalisierung hat binnen kurzer Zeit ganze Wirtschafts- branchen komplett verändert. Sie hat Wertschöpfungsketten in nur wenigen Jahren von Grund auf neu zusammengesetzt oder gar gänzlich aufgelöst, wie in der Musik oder in der Fotografie. Ob in der Medien- und Nachrichtenwelt, dem Finanz- und Immobiliensektor oder der Reisebranche: Wirtschaftliche Globalisierung und Digitali- sierung haben sich gegenseitig verstärkt und beschleunigt. Einerseits hat die Globa- lisierung durch weltweiten Handel und Vernetzung von Produktionsstandorten zu einer verstärkten Nutzung von vernetzten digitalen Systemen zu ihrer Steuerung geführt. Andererseits hat die Verfügbarkeit digitaler Systeme, insbesondere des Inter- nets, für Unternehmen und Privatpersonen die Globalisierung in weiteren Aspekten vorangetrieben. Sämtliche Aspekte menschlichen Handelns sind einer Transformation unterworfen und stehen auf dem Prüfstand. Das hat dramatischere Konsequenzen als noch zu Beginn dieses Jahrhunderts augenscheinlich war. Den Menschen wird langsam bewusst, dass das Veränderungstempo, hervorgerufen durch eine sich beschleunigende Digitalisie- rung in fast allen Bereichen des Lebens, sie regelrecht schwindelig macht. Im weiteren Verlauf der digitalen Transformation wird das Leben und Handeln wenig mit dem zu tun haben, was Individuen, Vertreter von Unternehmen und Staaten noch vor wenigen Jahren gekannt haben. Worin die Veränderungen münden, kann derzeit niemand vor- hersagen. Das verunsichert Entscheidungsträger aus Politik und Wirtschaft. Der rasante Wandel im beruflichen Umfeld macht vielen Menschen Angst. Sowohl im Privaten als auch in Wirtschaft und Politik benötigen wir eine umfassende Handlungssouveränität, um das jetzige und künftige Leben in der digitalisierten Gesellschaft gestalten zu können. Zwei Ursachen schränken diese Handlungssouve- ränität ein. Die eine Ursache liegt in der beschleunigten Entwicklung von Technolo- gien und ihrer anwachsenden Komplexität. Durch sie können Funktionsweisen von digitalen Systemen und Infrastrukturen zwar genutzt, aber häufig nur noch unzurei- chend verstanden werden. In der Folge sind die potenziellen Chancen und Risiken beim Einsatz digitaler Systeme nicht mehr fundiert einschätzbar. Die andere Ursache liegt in den einschränkenden Nutzungsbedingungen der Anbieter digitaler Systeme und Dienste. Diese werden vom Nutzer hingenommen und im Privaten meist sogar ungelesen per Klick akzeptiert. Während die meisten Menschen wie unbedarfte Kinder mit großen Augen und stau- nend neue digitale Welten für sich entdecken, geben sich die globalen Internet-Firmen wie digitale Konquistadoren. Unbedarfte Nutzer überlassen den Konquistadoren ihren 6 Vorwort persönlichen Datenschatz und ihre Rechte am digitalen Neuland meist für ein digitales Glasperlenspiel in Form einer wischbaren Glasscheibe im Hosentaschenformat. Aufgrund dieser Entwicklungen ist von der Handlungssouveränität aus vordigitalen Zeiten wenig übrig geblieben. Das betrifft auf gesellschaftlicher Ebene das Privatle- ben des Einzelnen ebenso wie das öffentliche Leben in Politik und Wirtschaft. Die digitale Souveränität im Sinne einer digitalen Handlungssouveränität wird zur not- wendigen Voraussetzung, um den Prozess der digitalen Transformation mitgestalten zu können. Dabei ist digitale Handlungssouveränität mehr als Technologiewissen. Sie schließt die Kenntnis um die Anwendung der Technologien und ihre Folgen ein und ermöglicht ihre freie Ausgestaltung. Da die technologischen Entwicklungen sehr schnell ablaufen, kommt es darauf an, dass wir ihnen gesellschaftlich in unseren Erkenntnisprozessen folgen können. Die Ergebnisse dieser Erkenntnisprozesse werden unsere Aktivitäten zur Ausgestaltung der künftigen digitalisierten Gesellschaft prägen. Notwendige Voraussetzung ist die Mündigkeit und Aufklärung aller. Dies zu schaffen, ist eine zentrale Herausforderung: Wir stehen vor der Aufgabe, ein Zeitalter der digitalen Aufklärung einzuläuten, damit künftig eine digitale Souveränität für Bürger, Unternehmen und Staaten – sofern diese als solche dann noch existieren – gewährleistet ist. Diese künftige digitale Sou- veränität wird sich in ihrem Verständnis sicherlich stark von Auffassungen und Diskus- sionen unterscheiden, mit denen wir heute diesen Begriff zu fassen suchen. Das Zeitalter der digitalen Aufklärung ist notwendig, um die selbstverschuldete digi- tale Unmündigkeit zu verlassen – mit dem Ziel, sich digitaler Daten und Anwendun- gen ohne Leitung eines Anderen oder intelligenter Algorithmen bedienen zu können. Selbstverschuldet ist die heutige digitale Unmündigkeit wesentlich durch Bequemlich- keit und einen Mangel an Umsicht. Dies gilt besonders für den mündigen Umgang mit den eigenen Daten. Digitale Sorglosigkeit verhindert digitale Souveränität. Digitale Aufklärung führt über die digitale Mündigkeit zu einer digitalen Souveräni- tät – des Einzelnen ebenso wie auch der privatwirtschaftlichen Unternehmen sowie des Staates und seiner Institutionen. Angelehnt an Immanuel Kant 1 kann zum Errei- chen dieser digitalen Souveränität formuliert werden: 1 Immanuel Kant (1784). Beantwortung der Frage: Was ist Aufklärung? In: Berlinische Monatsschrift, H. 12, S. 481–494. „Aufklärung ist der Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit. Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen. Selbstverschuldet ist diese Unmün- digkeit, wenn die Ursache derselben nicht am Mangel des Verstandes, sondern der Entschließung und des Muthes liegt, sich seiner ohne Leitung eines anderen zu bedienen. Sapere aude!“ iit-Themenband – Digitale Souveränität 7 „Digitale Aufklärung ist der Ausgang des Menschen aus seiner selbstverschul- deten digitalen Unmündigkeit. Digitale Unmündigkeit ist das Unvermögen, sich seines Verstandes und digitaler Systeme ohne Leitung eines anderen Menschen, Unternehmens oder einer Maschine zu bedienen. Selbstverschul- det ist diese digitale Unmündigkeit, wenn die Ursache derselben nicht am Mangel des Verstandes, sondern der Entschließung und des Muthes liegt, sich seiner ohne Leitung eines anderen zu bedienen. Sapere aude!“ In diesem Themenband des Instituts für Innovation und Technik (iit) werden ausge- hend von einer deutschen Perspektive verschiedene Aspekte und Ansatzpunkte zur aktuellen Transformation beleuchtet. Die Entwicklung einer digitalen Souveränität und entstehender Handlungsfelder werden für Bürger, Unternehmen und Staat auf- gezeigt. Dabei spiegelt sich in den Beiträgen die Heterogenität der heutigen Perspektiven auf die zu entwickelnde digitale Souveränität wider. Insofern will und kann dieses Buch noch kein umfassendes Bild der digitalen Aufklärung im geforderten Kant’schen Sinne zeichnen. Vielmehr werden einige Aspekte schlaglichtartig beleuchtet, zu denen jetzt Fragen beantwortet und Weichen gestellt werden müssen. Das Nicht- Beantworten dieser Fragen und das Zaudern bei den angemahnten Entscheidungen hätten einen dramatischen Einfluss auf die Gestaltung unserer Zukunft. Dieses Buch soll Denk- und Handlungsimpluse für die Ausgestaltung der künftigen digitalen Sou- veränität setzen. Bedanken möchte ich mich ganz herzlich bei den mitwirkenden Autoren und für die redaktionelle Unterstützung bei Dieter Beste, Lorenz Hornbostel, Marion Kälke und Désirée Tillack. Berlin, Deutschland Volker Wittpahl Juli 2017 Geschäftsführender Direktor iit-Themenband – Digitale Souveränität 9 Inhaltsverzeichnis Vorwort 5 Inhaltsverzeichnis 9 1 Bürger 11 1 1 Social Bots in den sozialen Medien 15 1 2 Digitale Partizipation in Wissenschaft und Wirtschaft 27 1 3 Von digitaler zu soziodigitaler Souveränität 43 2 Unternehmen 61 2 1 Digitale Souveränität – ein mehrdimensionales Handlungs- konzept für die deutsche Wirtschaft 65 2 2 Privatheit und digitale Souveränität in der Arbeitswelt 4 0 83 3 Staat 97 3 1 Mehr Daten, weniger Vertrauen in Statistik 101 3 2 Wie Zuhause so im Cyberspace? Internationale Perspektiven auf digitale Souveränität 117 3 3 Bildung als Voraussetzung digitaler Souveränität 151 Ausblick 177 Anhang 183 V. Wittpahl (Hrsg.), Digitale Souveränität , DOI 10.1007/978-3-662-55788-4_1, © Der/die Autor(en) 2017 Kapitel 1 BÜRGER Social Bots in den sozialen Medien – Digitale Partizipation in Wissenschaft und Wirtschaft – Von digitaler zu soziodigitaler Souveränität Quellenangaben: Anhang, Quellenverzeichnisse der Zahlen und Fakten 55 Prozent der Internetnutzer betrachten die voranschreitende Digitalisierung des Alltags mit Sorge, gleichzeitig stimmen 80 Prozent der Aussage zu, dass eine zuneh- mende Digitalisierung große Chancen bietet. 38 Millionen befürchten, dass der Staat infolge der technischen Entwicklungen bei Computern und Telekommunikation die Bürger immer stärker überwachen wird. 23 Prozent der Privatpersonen wurden bereits Opfer von Internetkriminalität oder Datenmissbrauch. 57 Prozent versenden keine vertraulichen In- formationen und wichtige Dokumente per E-Mail. 62 Prozent der Bürger halten sich selbst verantwortlich für den Schutz der eige- nen Daten im Internet. Deutschland liegt bei den digitalen Kompetenzen der Bevölkerung auf Platz 7 in Europa. iit-Themenband – Digitale Souveränität 15 1.1 Social Bots in den sozialen Medien Tobias Jetzke, Sonja Kind, Sebastian Weide Souveränes Handeln, selbstbestimmt und ohne die Einmischung von anderen, muss im Zuge der Digitalisierung neu ausgehandelt und verteidigt werden. Dieser Beitrag geht der Frage nach, wie Social Bots bereits genutzt werden, welche Gefahren ein flächendeckender Einsatz für die digitale Souveränität birgt und wie darauf reagiert werden könnte, um letztendlich ein souveränes Handeln der Verwender von sozialen Netzwerken zu ermöglichen. 1 Lebenswelten, die früher rein analog und im Privaten verortet waren, verlagern sich zunehmend ins Digitale und damit auf eine Metaebene, die teilweise im Öffentlichen und im Digitalen schwebt. Die neuen digitalen Lebenswelten realisieren sich vor allem in Gestalt sozialer Netzwerke. Nicht nur private Kommunikation, sondern zum Teil auch öffentliche Debatten, finden in Gruppen, Foren, Chats, auf virtuellen Pinn- wänden oder durch Posten von Bildern auf Twitter oder Facebook statt. Meist reicht ein Nutzerkonto, um Teil eines sozialen Netzwerks zu werden. Dieser leichte Zugang birgt jedoch die Gefahr des Missbrauchs und der Täuschung. Häufig lassen sich gefälschte Profile leicht anlegen. Darüber hinaus ist es inzwischen mög- lich, menschliche Gesprächspartner mit Programmen vorzutäuschen. Solche Social Bots können menschliches Verhalten nachahmen und sich zum Beispiel mit Foto und Biografie als echte Person tarnen. Und einmal installiert, verbreiten diese Maschinen weitgehend automatisch zu bestimmten Themen Informationen. Begünstigt wird der Einsatz von Social Bots dadurch, dass soziale Netzwerke eine Programmierschnitt- stelle haben, über die sich Funktionen der jeweiligen Plattform wie beispielsweise das Posten, Liken, Teilen 2 oder Löschen mittels externer Programme steuern lassen. 1 Dieser Artikel stützt sich im Wesentlichen auf die Ergebnisse und Erfahrungen einer Studie zum Thema Social Bots für das Büro für Technikfolgenabschätzung im Auftrag des Deutschen Bundestags (Kind et al. 2017). 2 Die hier verwendeten Begriffe orientieren sich am Netzjargon. Posten meint das Veröf- fentlichen von Inhalten, Liken und Teilen, das Hervorheben und Sichtbarmachen von Inhalten für andere Nutzer. 16 1 Bürger In Abgrenzung zu anderen Internetphänomenen, wie Assistenz-Bots 3, Spam-E- Mails 4, Trollen 5 oder Cyber-Angriffen 6 , lassen sich Social Bots durch die Kombination dreier zentraler Merkmale charakterisieren: • Es handelt sich bei Social Bots um einen in einer Software implementierten Algo- rithmus. • Social Bots täuschen vor, ein Mensch zu sein. • Social Bots versuchen, Einfluss auf die Meinungsbildung zu nehmen. Eine eindeutige Begriffsklärung fällt schwer. Teilweise werden Social Bots differen- ziert und gelegentlich als Twitter Bots bezeichnet, wenn sie primär auf der Plattform Twitter aktiv sind (vgl. Dewey 2016; Kollanyi 2016, S. 4932), oder Political Bots genannt, wenn sie maßgeblich darauf angelegt sind, die öffentliche Meinung zu beeinflussen (vgl. Woolley und Howard 2016, S. 4882). Immer handelt es sich um Algorithmen, die als semi-automatisierte Agenten vordefinierte Aufgaben wahrneh- men können. Inwiefern unser Handeln in dieser digitalen Lebenswelt souverän ist oder nicht, hängt sicherlich weitgehend davon ab, ob wir auf Tarnungen und Täu- schungen der Social Bots hereinfallen. Im Kern bestehen Social Bots aus drei Elementen: den Benutzerkonten in sozialen Netzwerken, den Programmierschnittstellen sowie der in einer beliebigen Program- miersprache verfassten Software mit der Verhaltenslogik des Social Bots. Hinsichtlich ihres Zwecks sind Social Bots zunächst einmal neutral. Sie führen lediglich das aus, wozu Menschen sie zuvor programmiert haben. Tückisch sind Social Bots, weil sie menschliches Verhalten imitieren, um ihrem jeweiligen Gegenüber eine menschliche Identität vorzutäuschen (vgl. Bilton 2014; Fischer 2013; Fuchs 2016; Voß 2015; Woolley und Howard 2016, S. 4885). So getarnt, ist es Ziel dieser Technik, Menschen etwa in ihren Kaufentscheidungen zu beeinflussen oder deren politische Meinung zu manipulieren (vgl. Voß 2015; Weck 2016; Woolley und Howard 2016, S. 4882). Bis heute konnte in der wissenschaftlichen Literatur nur eine überschaubare Anzahl von politisch motivierten Social Bots nachgewiesen werden. Zwei häufig genannte 3 Bei Assistenz-Bots handelt es sich um Computerprogramme, die menschlichen Nutzern Assistenz anbieten. Ein typischer Anwendungsfall ist die Kaufberatung. 4 Spam-E-Mails sind an E-Mail-Adressen verschickte Nachrichten, die von den Eigentümern nicht erwünscht sind. Oft beinhalten sie Werbung oder betrügerische Aufforderungen. 5 Trolle sind menschliche Nutzer sozialer Medien, die mit ihren Kommentaren versuchen, Diskussionen zu lenken und zu polemisieren. 6 Unter Cyber-Angriffen kann der gezielte Angriff von IT-Infrastrukturen verstanden werden. Diese Angriffe finden nicht physisch, sondern über Netzwerke statt. iit-Themenband – Digitale Souveränität 17 Beispiele sind die Social-Bot-Einsätze während der Protestbewegungen in der Ukra- ine im Jahr 2014 sowie im Präsidentschaftswahlkampf in den USA 2016 (vgl. Bond et al. 2012; Hegelich 2016; Howard und Kollanyi 2016; Howard 2016; Kollanyi et al. 2016). In beiden Fällen wurden Twitter-Daten ausgewertet und jeweils ein beacht- licher Anstieg der Bot-Kommunikation zu bestimmten Themen nachgewiesen. • Im belegten Fall von Social-Bot-Aktivitäten im Ukrainekonflikt wurden von 15.000 gefälschten Profilen 60.000 Tweets pro Tag abgesetzt (vgl. Hegelich 2016, S. 5). Damit konnten sie Kommunikationskanäle mit bestimmten Botschaften über- schwemmen und gegenläufige Meinungen unterdrücken. Abbildung 1.1.1: Abgrenzung der Social Bots von anderen Phänomenen: Social Bots eignen sich vollumfänglich zu Täuschungsmanövern. Trolle Assistenz-Bots Spam-E-Mails Cyber-Angriffe Social Bots Versuch der Einflussnahme Implementierter Algorithmus Vortäuschen menschlicher Identität 18 1 Bürger • In den USA konnte gezeigt werden, dass Social Bots fast 20 Prozent der Nachrich- ten auf Twitter im US-Präsidentschaftswahlkampf verbreitet haben. Hierbei pro- duzierten etwa 400.000 Social Bots rund 3,8 Millionen Tweets (vgl. Bessi und Ferrara 2016). Allein 1,7 Millionen Tweets wurden während einer der TV-Debat- ten der Kandidaten von Bots generiert (vgl. Kelion und Shiroma 2016). qualitative und quantitative Verzerrung von Diskussionen zur Störung der Debattenkultur im Internet bis hin zur Störung des gesellschaftlichen Friedens Cyber Warfare: hybride Kriegsführung, z. B. durch Rekrutierung von Teilnehmern für eine DDoS-Attack (Distributed Denial of Service) Beeinflussung von Kaufentscheidungen in Bezug auf Produkte und Dienstleistungen Beeinflussung von Themen, die dadurch zu „Trending Topics” werden können Wirtschafts- kriminaliät: gezielte Fehlinformation, die zu Kauf-/Verkauf- entscheidungen führt Verzerrung von Statistiken bei der Auswertung von Daten in sozialen Medien, z. B. der Auswertung der Popularität anhand von Retweets persönliche Beleidigung und Belästigung von Personen, indem Einzelpersonen spezifisch mit diskreditierenden Botschaften adressiert werden massenhafter Versand von Schadsoftware an ausgewählte Bevölkerungsgruppen (Automated Spear Phishing) Verunsicherung in Krisensituationen, z. B. durch Posten von Falschmeldungen Created by Alex Muravev from the Noun Project Created by Alex Muravev Created by Alex Muravev from the Noun Project Created by Alex Muravev Abbildung 1.1.2: Aktivitäten / Social Bots können eine Vielzahl von Einfl ussmöglichkeiten ausüben iit-Themenband – Digitale Souveränität 19 Dazu entwickelten beispielsweise Davis et al. (2016) Indikatorensysteme, die eine Wahrscheinlichkeitsberechnung erlauben, aus der sich ableiten lässt, ob ein Interak- tionsmuster eher auf menschliches Nutzungsverhalten oder Social-Bot-Aktivitäten hindeutet. Diese Indikatorensysteme stehen auch weiterhin online zur Verfügung und werden kontinuierlich verbessert. Wirkräume für Social Bots ergeben sich grundsätzlich in allen sozialen Netzwerken, die nutzerfreundliche und hürdenfrei zugängliche Programmierschnittstellen – soge- nannte „Application Programming Interfaces“ (API) – besitzen (vgl. Morstatter et al. 2013). Neben Twitter trifft dies besonders auf Instagram und Google+ zu. Auch die Forschung ist auf diese von Social Bots genutzten leicht zugänglichen Schnittstellen angewiesen, um an Daten zu deren Aktivitäten zu gelangen. Deshalb legt die wissenschaftliche Analyse ihren Schwerpunkt auf Twitter. Somit müssen die hier erfassten Daten nicht gezwungenermaßen den tatsächlichen Fokus der Social- Bot-Aktivitäten im Internet widerspiegeln. Bislang gelang es den in dem Forschungs- feld aktiven Wissenschaftlern nicht, einen eindeutigen Nachweis über eine Wirkung der Bots zu erbringen (Beuth 2017). Ob also Social Bots tatsächlich die Hauptursache sind, wenn Nutzer sozialer Medien ihre politische Meinung ändern, bleibt deswegen noch ungeklärt. Die Initiatoren und Urheber von Social Bots lassen sich bislang bis auf wenige Aus- nahmen nicht identifizieren oder zurückverfolgen. Dies betrifft sowohl die Social Bots zur politischen Propaganda als auch jene für wirtschaftliche Zwecke. Mutmaßliche Initiatoren politisch motivierter Manipulationen sind Geheimdienste, Terrorgruppen, terroristisch motivierte Einzelpersonen, aber auch andere Akteure wie Unterstützer einer Partei in einem Wahlkampf. Dementsprechend schwer ist es, rechtliche Schritte gegen Auftraggeber oder Pro- grammierer von Social-Bot-Aktivitäten einzuleiten. Weder ist bislang der wissen- schaftlich eindeutige Nachweis einer manipulativen Wirkung gelungen, noch sind die Einsatzfelder von Social Bots an Ländergrenzen gebunden, was die Durchsetzung nationalen Rechts fraglich macht. Strafrechtliche Maßnahmen sind ins Auge zu fas- sen, wenn mit einem Bot-Einsatz offen zu Straftaten aufgerufen wird, unsere frei- heitlich demokratische Grundordnung angegriffen wird oder andere schädliche Aus- wirkungen für die Gesellschaft, wie die Förderung von Wirtschaftskriminalität oder etwa die Fälschung von Produktbewertungen, angestrebt werden. Da jedoch nur in Ausnahmefällen damit zu rechnen sein dürfte, die international und von Drittländern aus agierenden Initiatoren von Social Bots zu identifizieren und rechtlich belangen zu können, scheint es aus heutiger Sicht viel sinnvoller und wirk- samer zu sein, rechtliche Druckmittel gegenüber den Betreibern von Social-Media- Plattformen auszuüben. 20 1 Bürger Gegenwärtig sind sowohl mannigfache Bestrebungen zu technischen Weiterent- wicklungen von Social Bots zu beobachten als auch eine zunehmende Sensibilisie- rung in Politik und Gesellschaft gegenüber deren Wirken. In technischer Hinsicht profitieren Entwickler von Social Bots von den drei großen Treibern der Digitalisierung: Ausbau der Daten- und Kommunikationsnetze, Verfüg- barkeit preiswerter Speicher und Zugang zu leistungsfähigen Rechenkapazitäten über Cloud Computing. Dadurch wird der Betrieb von Social Bots immer einfacher. Ferner werden Fortschritte im Bereich der Sprachanalyseprogramme eine verbesserte Kommunikationsfähigkeit der Social Bots ermöglichen. Und auch aufgrund der zunehmenden Verbreitung von Big-Data-Analysen und deren Verzahnung mit Sprachanalyseprogrammen wird eine immer bessere und flexiblere sprachliche Aus- drucksfähigkeit von Social Bots erwartet. Letztlich kann diese Entwicklung dazu führen, dass auch Personen mit gering ausgeprägten Programmier- und Informatik- kenntnissen komplexe Social Bots entwickeln und einsetzen können. Bisher hat sich auch die kurze und sprachlich einfache Form der Nachrichten, die über soziale Netzwerke ausgetauscht werden, begünstigend auf die technische Ent- wicklung von Social Bots ausgewirkt. Weil dort selten längere Dialoge geführt wer- den, lässt sich nur schwer erkennen, ob ein Mensch oder ein Bot Beiträge formuliert hat. Die Betreiber sozialer Medien arbeiten an der Entwicklung von Enttarnungsmecha- nismen – setzen jedoch inzwischen auch selbst auf die Anwendung von Bots inner- halb von Messenger-Diensten wie Poncho von Facebook oder Allo von Google (vgl. Krause 2017). Mit diesen digitalen Assistenten wollen die Betreiber künftig ihre Kun- den intensiver betreuen und Nutzer bei der Handhabung ihrer Plattformen beispiels- weise so unterstützen, dass sie Hotelzimmer, Flüge, Kinokarten oder Blumen aus- wählen und kaufen können, ohne dafür die Umgebung des sozialen Netzwerks ver- lassen zu müssen. Ein Wechsel auf die jeweiligen Webseiten der Anbieter soll überflüssig werden. Anders als bei den genannten Social Bots handelt es sich hier jedoch um Bots, die sich als solche zu erkennen geben, deren Wirken als offensicht- lich maschinelles Handeln leicht zu erfassen ist. In den kommenden Jahren ist mit weiteren Sprüngen im Ausbau der Bot-Technologie zu rechnen. Eine maßgebliche Rolle spielt dabei die rasante Entwicklung im Bereich der künstlichen Intelligenz, die bislang nur rudimentär in die Programmierung von Social Bots eingeflossen ist (vgl. Guilbeault 2016, S. 5005), in Zukunft aber an Bedeu- tung gewinnen wird (vgl. Fuchs 2016). Da die Entwicklung künstlicher Intelligenz ebenfalls im Tätigkeitsspektrum digitaler Plattformunternehmen liegt, können diese Technologien künftig auch helfen, Social Bots zu enttarnen. Demzufolge ist zu erwar- ten, dass sich ein dynamisches Gleichgewicht zwischen der Entwicklung von Social Bots einerseits und entsprechenden Enttarnungssystemen andererseits ergeben wird. iit-Themenband – Digitale Souveränität 21 Sowohl die Entwicklung von Social Bots als auch die von Gegenmaßnahmen ist in übergeordnete soziale und politische Richtungen eingebettet. So ist zu beobachten, dass sich politische Diskurse zunehmend in soziale Medien verlagern und dort häufig polarisiert geführt werden. Dies wiederum macht soziale Medien attraktiv für Mani- pulationsversuche und lädt zur Verbreitung politischer Propaganda ein. Unter der menschenähnlichen Tarnkappe von Social Bots hegen entsprechende Akteure die Absicht, Meinungen zu beeinflussen, um entweder erwünschte Ergebnisse zu unter- stützen oder unerwünschte zu verhindern. Hieraus folgt, dass manipulativ eingesetzte, vom Menschen nicht mehr unterscheid- bare Social Bots die digitale Souveränität der Menschen untergraben. Wenngleich Enttarnungssysteme notwendig sind, ist gegenwärtig keine umfassend greifende technische Lösung des Problems in Sicht. Und da der Grad der Durchdringung und damit die Wirksamkeit bzw. Wirkmächtigkeit von Social Bots in Bezug auf die Wahr- nehmung von Sachverhalten, den öffentlichen Diskurs oder auch demokratische Pro- zesse noch nicht abschließend geklärt sind, können auch die sich daraus ergebenden gesellschaftlichen Handlungsfelder nur vorläufiger Natur sein. Es zeichnet sich ab, dass individuelle Kompetenzen sowie öffentliche und wissenschaftliche Diskurse gefördert werden müssen, um den potenziellen Angriff von Social Bots auf die digi- tale Souveränität abzufedern. Gleichwohl könnte die Social-Bot-Technologie auch einen positiven Beitrag zur digitalen Souveränität leisten. Handlungsempfehlungen Social Bots sind nur ein Teil potenzieller Manipulationsmöglichkeiten im Internet. Sie existieren in einem komplexen Wirkungszusammenhang parallel zu anderen techni- schen und sozialen Phänomenen, die sich dynamisch entwickeln und eine differen- zierte Auseinandersetzung erschweren. In Zeiten politischer und sozialer Transforma- tionsprozesse sind jedoch belastbare Entscheidungsgrundlagen und verlässliche, rechtliche Rahmenbedingungen und Instrumente notwendig. Öffentliche Diskurse fördern und Gremien für einen internationalen Umgang mit der Digitalisierung etablieren Die wissenschaftliche Forschung, die Informationen für politische Entscheidungspro- zesse vorhalten kann, wird eingeschränkt durch aktuell begrenzte Möglichkeiten, Daten der digitalen Plattformunternehmen einzusehen und auszuwerten. Hier gilt es, Rahmenbedingungen zu schaffen, die regulatorische und technische Aspekte umfassen und den Umgang zwischen wissenschaftlichen Interessen und den Interes- sen digitaler Plattformunternehmen regeln. Um diese Rahmenbedingungen zu schaffen, ist die Einrichtung von Gremien und Institutionen erforderlich, die Akteure von Wirtschaft und Politik sowie Wissenschaft 22 1 Bürger und Gesellschaft gleichermaßen einbeziehen. Dies ist schwierig, weil die Digitalisie- rung international, die Rechtsordnungen aber national sind. Denkbar sind innerhalb von global agierenden Gremien abgestimmte Konventionen und Standards, die einen Rahmen zum Umgang mit der Digitalisierung vorgeben und die nationalen Regulierungsbemühungen flankieren. Das Ziel, sich international auf gemeinsame Richtlinien zu verständigen, würde große Anstrengungen der internationalen Staatengemeinschaft unter Einbindung der glo- bal agierenden Konzerne erfordern. Erste Schritte in diese Richtung sind im Rahmen der EU-Digitalcharta (vgl. ZEIT-Stiftung Ebelin und Gerd Bucerius) zu beobachten. Mit diesem Vorstoß, digitale Grundrechte zu formulieren, versucht die EU, ihren Bürgern Sicherheit im digitalen Zeitalter zu geben. Auch die Sphären, in denen Social Bots agieren, berührt die Charta implizit, beispielsweise im Kontext von künstlicher Intel- ligenz oder Datenschutz und Datensouveränität. Medien- und informationstechnische Kompetenz in Zeiten von Social Bots und vorgetäuschten Nachrichten stärken Für einen souveränen Umgang mit Propaganda oder Falschmeldungen ist es ent- scheidend, die Qualität und Zuverlässigkeit von Quellen zu kennen und über Grund- kenntnisse informationstechnischer Zusammenhänge zu verfügen. Kinder, Jugend- liche und Erwachsene sollten in ihrer Medienkompetenz im Sinne einer Digital Liter- acy gestärkt werden. Ein grundlegendes Verständnis informationstechnischer Funktionsweisen und kommunikativer Zusammenhänge – etwa wie Nachrichten zum Trend werden – gehört unbedingt in die Lehrpläne der schulischen Ausbildung und der Weiterbildungsangebote. Da auch Mitarbeiter etablierter Medien im Rahmen ihrer journalistischen Tätigkeiten zunehmend auf Inhalte aus sozialen Medien zurückgreifen und so Bot-generierte Inhalte verbreiten und legitimieren können, ist es notwendig, derartige Quellen zu kontrollieren. Ähnlich wie die Herkunft von Bildmaterial auf Glaubwürdigkeit und Echtheit hin überprüft wird, muss dies auch für Twitter-Meldungen und andere potenziell automatisch generierte Inhalte gelten. Zudem sollte sich die Bewertung der Relevanz von Nachrichten oder der Popularität von Themen und Personen auf- grund der leichten Manipulierbarkeit nicht allein auf die in sozialen Medien typischen Indikatoren wie die Anzahl von Retweets oder Followern 7 stützen. Weil das Arbeits- pensum wächst und Onlinemedien die Erwartungen an die Aktualität in die Höhe treiben, wird es für den professionellen Journalismus jedoch immer herausfordern- 7 Der Begriff Retweeten beschreibt im Jargon des sozialen Netzwerks Twitter ein Veröffent- lichen von Inhalten von anderen Nutzern auf der eigenen Seite. Follower sind Personen, die dem eigenen Profil folgen, ähnlich einem Abonnement, das über Updates informiert.